Ông gia nhập Đảng Cộng sản Việt Nam vào ngày 18/01/1984.

Ông từng là đại biểu hội đồng nhân dân huyện Nam Ninh, tỉnh Hà Nam nhiệm kỳ 1992-1997.

Khi lần đầu được trung ương hội nông dân giới thiệu ứng cử đại biểu Quốc hội Việt Nam khóa 14 vào tháng 5 năm 2016 ông đang là Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa 12, Bí thư Đảng đoàn Hội Nông dân Việt Nam, Bí thư Đảng ủy cơ quan Trung ương Hội Nông dân Việt Nam, Chủ tịch Hội Nông dân Việt Nam. Ông đã trúng cử đại biểu Quốc hội năm 2016 ở đơn vị bầu cử số 2, tỉnh Bạc Liêu gồm có Thị xã Giá Rai và các huyện Phước Long, Hồng Dân, Đông Hải, được 263.737 phiếu, đạt tỷ lệ 72,88% số phiếu hợp lệ.

Sáng 26/12/2017, ông đã nhận quyết định của Bộ Chính trị về việc tham gia Ban Chấp hành, Ban Thường vụ và giữ chức Bí thư Tỉnh ủy Cao Bằng nhiệm kỳ 2015- 2020.[2]